IA que filtra hojas de vida: ¿quién responde si discrimina?

Más de la mitad de los empleadores en Colombia ya utiliza algún tipo de software de inteligencia artificial para filtrar hojas de vida antes de que un reclutador humano las revise.

Muchas empresas asumen que, si la herramienta descarta candidatos de forma discriminatoria, la responsabilidad recae sobre el proveedor del sistema. El marco vigente conduce a la conclusión contraria y conviene entender por qué antes de delegar una decisión tan sensible en un algoritmo.

¿Puede una empresa descartar candidatos con IA sin intervención humana? No de manera segura. La Sentencia T-323 de 2024 de la Corte Constitucional, primera decisión colombiana sobre uso de IA, fijó la supervisión humana como principio aplicable a estas tecnologías, junto con la transparencia y la no discriminación. La Circular Externa 002 del 21 de agosto de 2024 SIC refuerza ese estándar al exigir que el tratamiento de datos en sistemas de IA atienda criterios de idoneidad, necesidad y proporcionalidad. Una decisión de empleo soportada solo en el resultado automatizado, sin revisión humana significativa, es jurídicamente frágil.

¿Quién responde si el algoritmo discrimina por género, edad u origen? La empresa que contrata, no el proveedor. Bajo la Ley 1581 de 2012, quien decide sobre el tratamiento es el responsable y el proveedor de la herramienta actúa como encargado, sin que ello traslade la responsabilidad. El principio de responsabilidad demostrada obliga a la empresa a probar que su proceso fue lícito. El artículo 13 de la Constitución, además, prohíbe la discriminación por sus efectos, de modo que un sesgo algorítmico que produzca impacto discriminatorio compromete a la empresa, aunque no haya existido intención de discriminar.

¿Qué datos del candidato puede procesar la herramienta? Solo los pertinentes para evaluar la idoneidad laboral y con especial cuidado frente a los datos sensibles. El artículo 5 de la Ley 1581 de 2012 califica como sensibles los que pueden generar discriminación, entre ellos el origen racial o étnico, la orientación política, las convicciones religiosas, la salud y los datos biométricos. El artículo 6 prohíbe su tratamiento salvo autorización explícita del titular. Un sistema que infiere estas categorías a partir de la foto, el nombre o el barrio del candidato incurre en tratamiento de datos sensibles sin la base que la ley exige.

¿Qué debe hacer la empresa para reducir el riesgo? Cuatro acciones concretas: (i) Realizar un estudio de impacto en protección de datos antes de desplegar la herramienta, conforme a la Circular 002 de 2024 y la lógica del CONPES 4144 de 2025; (ii) Recoger la autorización del candidato de forma previa, expresa e informada, conservando la prueba de su otorgamiento según el Decreto 1377 de 2013; (iii) Garantizar intervención humana real sobre las decisiones de descarte, no un visto bueno formal; Y (iv) exigir al proveedor evidencia de auditoría de sesgos del modelo.

La automatización del reclutamiento puede ordenar el proceso, pero la responsabilidad jurídica por sus resultados sigue siendo de la empresa y se demuestra con documentación, no con buenas intenciones.